OpenAI a récemment entrepris de développer un système d'alerte précoce pour GPT-4 afin d'explorer si les grands modèles de langage peuvent améliorer l'efficacité de l'acquisition d'informations sur les menaces biologiques, par rapport à Internet. Ce système vise à servir de "déclencheur", signalant la présence potentielle d'armes biologiques. Une étude menée auprès de 100 participants a montré que l'utilisation de GPT-4 combiné à Internet apportait une légère amélioration de la précision et de l'exhaustivité des tâches liées aux risques biologiques, mais l'effet n'était pas significatif. L'évaluation portait uniquement sur l'acquisition d'informations et non sur l'application pratique, et n'a pas exploré le potentiel de GPT-4 dans la création de nouvelles armes biologiques.

🔍 Les robots de conversation basés sur des modèles linguistiques pourraient être capables d'aider à planifier des attaques à base d'armes biologiques. 📊 Un rapport indique que les robots fournissent des plans d'attaque biologique et des instructions d'exécution, mais pas d'instructions biologiques explicites. 🔒 Ce rapport met en garde contre la menace des armes biologiques et appelle les entreprises d'IA à limiter l'ouverture des robots sur les sujets sensibles.